我代码0基础,5分钟能做一个大模型应用
我有一个朋友小张,最近在研究怎么让AI帮自己工作。
小张是汽车销售。把车卖出去以后,常常会收到客户的提问:
这个黄色图标什么意思?
防冻液添加入口在哪里?
辅助驾驶怎么打开?
小张是新技术爱好者,他就想,能不能让AI来回答客服问题,这样他省下的时间可以用来摸鱼学习?
常见的生成式AI虽然聪明,但难以胜任客服的工作。
比如小张问它们,某一汽车车型,按哪个按钮打开后备箱。
AI最多的指引,是让他去看说明书。
小张去请教了一位算法工程师。工程师解释:
这是因为大模型的训练数据不一定涵盖所有汽车,尤其是新款车型。AI有自己的局限性,让你看说明书已经是当下最合理的回答。
小张不甘心地想——「能不能让大模型学习最新的汽车说明书和汽车知识,然后准确回答客户问题?」
算法工程师说:
这个需求不难,你可以分几个步骤完成:
1. 选择编程语言。首先,选择一个合适你的编程语言,比如Python;
2. 选择大语言模型,比如混元大模型;
3. 获取大模型的API访问权限;
4. 把汽车说明书,整理成一个结构化格式(如JSON、CSV等),汇集成专业文档;
5. 编写代码读取专业文档,输入给大模型;
6. 设计一个用户交互界面。
我的朋友小张说:「等一下,编程语言,我?」
小张继续问:「有没有不懂代码也能用的方法?」
铺垫到这里,这个广告不打就说不过去了
腾讯云大模型知识引擎,可以帮助小张这样的职场人士,把大模型的能力(理解自然语言、信息检索、对话交互等等)和企业的专属知识结合起来,解决工作中的具体问题。
知识引擎是一个PaaS平台,它就像一台预装好的电脑,打开就能使用,而不必自己先组装硬件、安装操作系统、安装软件等等。
知识引擎「预装」了许多模型和工具,使得小张不需要从写代码学起,而是直接把他电脑里的汽车说明书PDF文档都上传,让知识引擎「学习」后,变成一个专业的汽车客服。
腾讯云知识引擎内置的第一个能力,是用来加强「阅读」能力的。
一直以来,机器阅读PDF文档,都做不到像人类一样顺畅。如果你试过把PDF转成WORD文档,一定发现转换后的结果有顺序错乱、缺字漏字等问题。
腾讯云知识引擎内置的OCR文档解析大模型,把文档识别的准确率提升了 30%。
它会进行版面分析,识别出文字、公式、表格、图片等元素,并进行元素排序,确保解析完的文档有正确的阅读顺序。
和我们小时候做语文阅读理解题目一样,知识引擎「阅读」之后,还要学会「理解」。
这就需要介绍知识引擎的第二个内置大模型——业内首个基于语义判断的知识切分大模型。
它的能力是,把信息完整切分,分好类,这可以提高回答的完整性。
知识切分大模型可以自己理解整篇文章的一级、二级、三级段落,这基于它的语义理解、长上下文关联能力。
做阅读理解题目,把原文看懂之后,在原文找到答案的线索也是很重要的一步。
知识引擎内置也是一样,这就涉及到它的第三个能力——检索增强(RAG)技术。
小张上传了上百份PDF文档(每份几百页)给知识引擎,知识引擎在文档中快速检索,定位到关键信息,这依赖内置的自研长文本Embedding 模型。
embedding(嵌入)就是把将文本(词汇、短语、句子或整篇文档)转换成数值向量(一组数字)的方法,相当于是「降维」处理,「降维」之后,用数学的方法来处理它们的相似度就很方便。
举个例子,「猫在沙发上睡觉」、「沙发上有一只正在打盹的猫」这两句话的语法结构不同,但是在「降维」之后,它们在空间上的距离很近,大模型可以快速且准确地把它们「一网打尽」。
腾讯自研的长文档Embedding 模型,能支持复杂的长文本检索,包括上万行超大表格。在国际知名的 C-MTEB 榜单上,这个模型在 8 个中文任务上可以达到效果最优。
复习一下刚刚的知识。
小张把PDF文档拖进知识引擎,知识引擎阅读文档后,把文档的信息分好类。当任何人向知识引擎提问,它就通过「降维」的方法,快速检索、找到对应的原文。
接着,知识引擎就带着检索到的原文,加上最初的提问,重新排列组合,输入给大模型,「生成」回答。
相当于,知识引擎听了提问者的问题后,在小张上传的知识库找到资料,把问题改得更明白(问题里面已经有了答案的线索),再发给大模型。
以这个问答为例。
我的朋友小张发了一张图片(是的,这里有能看懂照片的多模态大模型在起作用),问知识引擎,「背大宝剑的小人是什么意思?」
小张很自信,他觉得自己的问题描述很精准。
其实「背大宝剑的小人」这个描述并不准确,但是知识引擎收到后,把它改得准确了,再发给大模型。
大模型收到更准确的提示词之后,情商很高地说:「背大宝剑的小人」是汽车安全带指示灯……
在AI时代,我们都知道会写prompt(提示词)是一项重要的技能,问对了问题,大模型才能回答好问题。而知识引擎降低了写prompt的门槛,让你用大白话就可以调动大模型。
最重要的是,刚刚说的这些复杂过程,都发生在知识引擎内部。所以,我的朋友小张不必理解这个过程,他只需要在知识引擎的可视化的界面上拖拉、点击,上传自己的工作文档,就完成了一个AI助手的搭建。
除了小张这样的汽车行业从业者,金融、教育、文旅、零售等行业的从业者,也正在运用知识引擎,让大模型学习企业的专属知识,用来辅助工作。
知识引擎企业需求点击这里
知识引擎的阅读理解能力,带着答案问问题的能力,使它在知识问答上可以扮演客服、销售、辅导老师、助理等多种角色。
企业可以像我的朋友小张这样,在平台上直接使用知识引擎,也可以调用知识引擎的API接口(比如文档解析,向量检索,多轮改写等),更个性化地使用各种工具,这也只需要一些基础的代码能力。
相信随着技术的进步和行业的发展,不懂代码的普通人,可以通过和AI的直接交流,解决越来越多的问题。